BeautifulSoup4的find

正则表达式+BeautifulSoup爬取网页可事半功倍。

就拿百度贴吧网址来练练手：https://tieba.baidu.com/index.html

1.find_all()：搜索当前节点的所有子节点，孙子节点。

下面例子是用find_all()匹配贴吧分类模块，href链接中带有“娱乐”两字的链接。

**如果没有合适过滤器,那么还可以定义一个方法,方法只接受一个元素参数。通过一个方法来过滤一类标签属性的时候, 这个方法的参数是要被过滤的属性的值, 而不是这个标签.

find_all()的参数：find_all( name , attrs , recursive , string , **kwargs )

find_all('a') ：查找所有标签

find_all(title='爱综艺')：查找所有属性包含“title='爱综艺'”的标签

find(string=re.compile('贴吧'))：查找第一个标签中包含“贴吧”的字符串

find_all(href=re.compile('娱乐明星'),title='娱乐明星')：多个指定名字的参数可以同时过滤tag的多个属性

find_all(attrs={"title": "娱乐明星"})：可以用attrs来搜索包含特殊属性（无法直接搜索的标签属性）的tag

find_all(href=re.compile('娱乐明星'),limit=3)：limit参数限制返回结果的数量

2.通过CSS选择器来查找tag，select()循环你需要的内容：

** 搜索html页面中a标签下以“/f/index”开头的href：

soup.select('meta')：根据标签查找

soup.select('html meta link')：根据标签逐层查找

soup.select('meta > link:nth-of-type(3)')：找到meta标签下的第3个link子标签

soup.select('div > #head')：找到div标签下，属性id=head的子标签

soup.select('div > a')：找到div标签下，所有a标签

soup.select("#searchtb ~ .authortb")：找到id=searchtb标签的class=authortb兄弟节点标签

soup.select("[class~=m_pic]") 和 soup.select(".m_pic")：找到class=m_pic的标签

soup.select(".tag-name,.post_author")：同时用多种CSS选择器查询